Kiều Công Hãn xuất thân từ một dòng họ có thế lực lớn ở Phong Châu (Phú Thọ). Ông là con của Kiều Công Chuẩn, anh trai sứ quân Kiều Thuận và là cháu nội của Kiều Công Tiễn, người Phong Châu, vị Tiết độ sứ cuối cùng trong lịch sử Việt Nam thời Tự chủ. Việt sử kỷ yếu chép Kiều Công Hãn còn có tên gọi khác là Kiều Tri Hựu.[1]

Năm 937, Kiều Công Tiễn giết chết Dương Đình Nghệ, nắm lấy quyền bính, tự xưng là Tiết độ sứ. Kiều Công Hãn không theo ông nội mà mang quân vào châu Ái theo Ngô Quyền. Một thời gian sau, Ngô Quyền giết Kiều Công Tiễn rồi đánh thắng quân Nam Hán sang giúp Công Tiễn. Tương truyền, Kiều Công Hãn là người hiến kế cho Ngô Quyền cắm cọc xuống sông Bạch Đằng trong trận thủy chiến năm 938.[2]

Ông phục vụ nhà Ngô và được phong làm thứ sử Phong châu[3].